Kan AI advocaten en rechters vervangen?
Machine learning en natuurlijke taalverwerking (Natural Language Processing, NLP) worden in toenemende mate ingezet om patronen te analyseren en rechterlijke uitspraken te voorspellen. Al in 2016 toonde een in PeerJ gepubliceerde studie aan dat algoritmen de uitspraken van het Europees Hof voor de Rechten van de Mens konden voorspellen met een gemiddelde nauwkeurigheid van 79%.
Voorstanders van ‘voorspellende rechtspraak’ (predictive justice) stellen dat AI procedures aanzienlijk kan versnellen en menselijke subjectiviteit kan elimineren. Rechtsgeleerden, zoals professor Emmanuel Jeuland, waarschuwen echter voor mogelijke tekortkomingen in de juridische redenering wanneer complexe menselijke feiten louter worden gereduceerd tot datapunten.
Dit roept een cruciale vraag op: kunnen beslissingen die door AI worden genomen – zelfs als de data overtuigend lijken – ooit werkelijk rechtvaardig, objectief en vrij van discriminerende vooroordelen zijn?
Het risico van dehumanisering van het rechtssysteem
Onder juridische professionals groeit de bezorgdheid over de mogelijke dehumanisering van de rechtspleging. Als reactie hierop hebben Europese instellingen regelgevingskaders opgezet om toezicht te houden op de integratie van AI:
🔸 2018: De Europese Commissie voor de Efficiëntie van de Rechtspraak (CEPEJ) nam het ‘Ethisch Handvest voor het gebruik van kunstmatige intelligentie in rechterlijke systemen’ aan.
🔸 2021: De Europese Commissie presenteerde de Artificial Intelligence Act (AI-verordening), die een uniform, op risico’s gebaseerd horizontaal juridisch kader vastlegt. Volgens overweging 40 van de AI-verordening wordt het gebruik van AI in de rechtspleging en in democratische processen geclassificeerd als ‘hoog risico’. Voor systemen met een hoog risico gelden strikte verplichtingen, waaronder voortdurende risicobeoordelingen, strategieën voor risicobeperking en zes aanvullende nalevingscriteria.
De grenzen van AI in de rechtszaal Denk bijvoorbeeld aan consumentgerichte instrumenten zoals de chatbot ‘DoNotPay’. Binnen het kader van de AI-verordening vallen dergelijke hulpmiddelen automatisch in de categorie ‘hoog risico’.
In civielrechtelijke procedures zouden dergelijke technologieën in theorie kunnen worden ingezet – mits ze voldoen aan strenge criteria, waaronder verplichte risicobeoordelingen en het gebruik van kwalitatief hoogwaardige, onbevooroordeelde datasets om discriminerende uitkomsten tot een minimum te beperken.
AI mag echter onder geen beding worden ingezet in Europese strafprocedures. Om discriminatie en catastrofale fouten te voorkomen, is strikt menselijk toezicht door gekwalificeerde, bevoegde advocaten en rechters vereist. Mensenrechten en persoonlijke vrijheid zijn simpelweg te essentieel om toe te vertrouwen aan een algoritme.
Bronnen:
🔗 AI, rechtvaardigheid en veiligheid – Universiteit van Helsinki
🔗 AI en discriminatie – Universiteit van Helsinki